iT邦幫忙

2023 iThome 鐵人賽
DAY 25
0
AI & Data

用單張顯卡探索大型語言模型的奧秘系列 第 25 篇

Day 25 - Chinese LLama2

15th鐵人賽
346 瀏覽

  • 分享至 

  • xImage
    •  

我看了一陣子以後，發現LLama與LLama2有太多不一樣的細節，對我這樣剛切入了人來說，條列區別意義不大，因此決定先跑起來再說。

目前目標放在部屬Chinese-Alpaca-2-7B到本機上執行:

如何執行可以參考 alpaca-2-7b.md

  • 對話類任務使用scripts/llama-cpp/chat.sh:

  • 非對話類任務使用scripts/inference/inference_hf.p:

具體使用細節明天補上


上一篇
Day24 - Chinese Llama2
下一篇
Day 26 - Chinese LLama2 (3) 24G單顯卡指令精調(Instruction FineTuning)
系列文
用單張顯卡探索大型語言模型的奧秘 共 30 篇
  1. 26
    Day 26 - Chinese LLama2 (3) 24G單顯卡指令精調(Instruction FineTuning)
  2. 27
    Day 27 - Chinese LLama2 (4) llama.cpp
  3. 28
    Day 28 - Chinese LLama2 (5) with LangChain
  4. 29
    Day 29 - Chinese LLama2 (6) with LangChain
  5. 30
    Day 30
完整目錄
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言
iThome鐵人賽
參賽組數
1050 組
團體組數
40 組
累計文章數
17777 篇
最後報名日
9/15
iT+看影片追技術 看影片追技術 看更多
熱門tag 看更多
15th鐵人賽 13th鐵人賽 14th鐵人賽 12th鐵人賽 16th鐵人賽 11th鐵人賽 鐵人賽 2019鐵人賽 javascript 2018鐵人賽 python 2017鐵人賽 windows php c# windows server linux css react vue.js
熱門問題
熱門回答
熱門文章
IT邦幫忙